JVM

JVM(九) - 线程优化与锁优化

Posted by LinYaoTian on 2018-08-02

线程安全

当多个线程访问同一个对象时,如果不考虑这些线程在运行时环境下的调度和交替进行,也不需要进行额外的同步,或者在调用方进行任何的协调操作,调用这个对象的行为都可以获得正确的结果,那这个对象是线程安全的。

Java 语言中的线程安全

Java 中各种操作共享的数据分为以下 5 类:

  • 不可变对象:

    该对象一定是线程安全的,无论是对象的方法实现还是方法的调用者,都不需要采取任何的线程安全保障措施;如果共享数据是一个基本数据类型,那么只要在定义时使用 final 关键字修饰它就可以保证它是不可变的。
    String 是一个典型的不可变类型,调用它的 substring()replace()concat() 这些方法都不会影响它原来的值,只会返回一个新构造的字符串变量。

  • 绝对线程安全:

    Java API 中标注自己是线程安全的类,大多数都不是绝对线程安全。如 java.util.Vector 是一个线程安全的容器,因为它的 add() 方法,get() 方法,size() 方法这些方法都是被 synchronized 修饰的,尽管效率低下,但确实是安全的;如果在一个线程里删除一个元素 i ,导致序号 i 已经不再可用的话,另一线程同时用 i 访问数组就会抛出 ArrayIndexOutOfBoundsException 。因此需做修改,在多线程中添加同步块,即 synchronized(vector)

  • 相对线程安全:

    单独对对象做操作是线程安全的,对于一些特定的顺序连续调用,就可能需要在调用端使用额外的同步手段来保证操作的正确性。

    Java 语言中,大部分的线程安全类都属于这种类型,例如 VectorHashTableCollectionssynchronizedCollection() 方法包装的集合。

  • 线程兼容:

    线程兼容是指对象本身并不是线程安全的,但是可以通过调用端正确地使用同步手段来保证对象在并发环境中可以安全地使用。
    Java 中大部分的类属于线程兼容,如 ArrayListHashMap 等。

  • 线程对立:

    指无论调用端是否采取同步措施,都无法在多线程环境中并发使用的代码。由于 Java 语言天生就具备多线程特性,线程对立这种排斥多线程的代码是很少出现的,而且通常是有害的,应当尽量避免。

线程安全的实现方法

互斥同步

同步:是指在多个线程并发访问共享数据时,保证共享数据在同一个时刻被一个线程使用。

互斥:互斥是实现同步的一种手段;临界区,互斥量和信号量都是主要的互斥实现方式。因此,在这 4 个字里,互斥是因,同步是果;互斥是方法,同步是目的。

最基本的互斥同步手段就是 synchronized 关键字:synchronized 关键经过编译之后,会在同步块的前后分别形成 monitorentermonitorexit 这两个字节码指令,这两个字节码都需要一个 reference 类型的参数来指明要锁定的和解锁的对象。如果 Java 程序中的 synchronized 明确指定了对象参数,那就是这个对象的 reference 。如果没有明确指定,那就根据 synchronized 修饰的实例方法还是类方法,去取对应的对象实例或 Class 对象来作为锁对象。
根据虚拟机规范的要求:在执行 monitorenter 指令时,如果这个对象没有锁定或当前线程已经拥有了那个对象的锁,锁的计数器加 1,相应的,在执行 monitorexit 指令时会将锁计数器减 1;当计数器为 0 时,锁就被释放了;

除了synchronized之外,还可以使用 java.util.concurrent 包中的重入锁(ReentrantLock)来实现同步;

synchronized 和 ReentrantLock 的区别: ReentrantLock 表现为 API 层面的互斥锁(lock()unlock() 方法配合 try/finally 语句块来完成),synchronized 表现为原生语法层面的互斥锁;

ReentrantLock 增加了一些高级功能:

  • 等待可中断:指当持有缩的线程长期不释放锁的时候,正在等待的线程可以选择放弃等待,改为处理其他事情,可中断特性对处理执行时间非常长的同步块很有帮助。
  • 公平锁:指多个线程在等待同一个锁时,必须按照申请锁的时间顺序来依次获得锁。(synchronized 的锁是非公平锁,ReentrantLock 默认也是非公平的,但可以通过带布尔值的构造函数使用公平锁)
  • 锁绑定多个条件:指一个 ReentrantLock 对象可以同时绑定多个 Condition 对象,而在 synchronized 中,锁对象的 wait()notify()notifyAll() 方法可以实现一个隐含的条件,如果要和多于一个的条件关联的时候,就不得不额外地添加一个锁,而 ReentrantLock 则无需这样做,只需要多次调用 newCondition() 方法即可。

虚拟机在未来的性能改进中肯定也会更加偏向于原生的 synchronized,所以还是提倡在 synchronized 能实现需求的情况下,优先考虑使用 synchronized 来进行同步;

非阻塞同步

阻塞同步(互斥同步)的问题:就是进行线程阻塞和唤醒锁带来的性能问题,互斥同步属于一种悲观的并发策略,无论共享数据是否真的会出现竞争,它都要进行加锁,用户核心态转换,维护锁计数器和检查是否有被阻塞的线程需要唤醒等操作。

非阻塞同步定义:基于冲突检测的乐观并发策略,通俗的说,就是先进行操作,如果没有其他线程争用共享数据,那操作就成功了;如果共享数据有争用,产生了冲突,那就再采用其他的补偿措施(最常见的补偿措施就是不断重试,直到成功为止),这种乐观的并发策略的许多实现都不需要把线程挂起,因此这种同步操作称为非阻塞同步。

乐观并发策略需要“硬件指令集的发展”的发展才能进行这类指令常用的有:

  • 测试并设置(Test-and-Set);
  • 获取并增加(Fetch-and-Increment);
  • 交换(Swap);
  • 比较并交换(Compare-and-Swap,下文简称 CAS);
  • 加载链接/ 条件存储(Load-Linked/Store-Conditional,下文简称 LL/SC);

CAS 分析:

CAS 有三个操作数:内存值 V、旧的预期值 A、要修改的值 B,当且仅当预期值 A 和内存值 V 相同时,将内存值修改为 B 并返回 true,否则什么都不做并返回 false

java.util.concurrent.atomic 包下的原子操作类都是基于 CAS 实现的,接下去我们通过AtomicInteger 来看看是如何通过 CAS 实现原子操作的:

1
2
3
4
5
6
7
8
9
10
11
12
13
public class AtomicInteger extends Number implements java.io.Serializable {
// setup to use Unsafe.compareAndSwapInt for updates
private static final Unsafe unsafe = Unsafe.getUnsafe();
private static final long valueOffset;
static {
try {
valueOffset = unsafe.objectFieldOffset
(AtomicInteger.class.getDeclaredField("value"));
} catch (Exception ex) { throw new Error(ex); }
}
private volatile int value;
public final int get() {return value;}
}
  • UnsafeCAS 的核心类,Java 无法直接访问底层操作系统,而是通过本地(native)方法来访问。不过尽管如此,JVM 还是开了一个后门,JDK 中有一个类 Unsafe,它提供了硬件级别的原子操作
  • valueOffset 表示的是变量值在内存中的偏移地址,因为 Unsafe 就是根据内存偏移地址获取数据的原值的。
  • value 是用 volatile 修饰的,保证了多线程之间看到的 value 值是同一份。

接下去,我们看看 AtomicInteger 是如何实现并发下的累加操作:

1
2
3
4
5
6
7
8
9
10
11
//jdk1.8实现
public final int getAndAdd(int delta) {
return unsafe.getAndAddInt(this, valueOffset, delta);
}
public final int getAndAddInt(Object var1, long var2, int var4) {
int var5;
do {
var5 = this.getIntVolatile(var1, var2);
} while(!this.compareAndSwapInt(var1, var2, var5, var5 + var4));
return var5;
}

假设现在线程 A 和线程 B 同时执行 getAndAdd() 操作:

  1. AtomicInteger 里面的 value 原始值为 3,即主内存中 AtomicIntegervalue 为 3,根据Java 内存模型,线程 A 和线程 B 各自持有一份 value 的副本,值为 3。
  2. 线程 A 通过 getIntVolatile(var1, var2) 方法获取到 value 值 3,线程切换,线程 A 挂起。
  3. 线程 B 通过 getIntVolatile(var1, var2) 方法获取到 value 值 3,并利用compareAndSwapInt() 方法比较内存值也为 3,比较成功,修改内存值为2,线程切换,线程B挂起。
  4. 线程 A 恢复,利用 compareAndSwapInt 方法比较,发手里的值 3 和内存值 4 不一致,此时value 正在被另外一个线程修改,线程 A 不能修改 value 值
  5. 线程的 compareAndSwapInt 实现,循环判断,重新获取 value 值,因为 valuevolatile 变量,所以线程对它的修改,线程 A 总是能够看到。线程 A 继续利用 compareAndSwapInt() 进行比较并替换,直到 compareAndSwapInt() 修改成功返回 true

整个过程中,利用 CAS 保证了对于 value 的修改的线程安全性。

我们继续深入看看 Unsafe 类中的 compareAndSwapInt() 方法。

1
public final native boolean compareAndSwapInt(Object paramObject, long paramLong, int paramInt1, int paramInt2);

可以看到,这是一个本地方法调用,这个本地方法在 openjdk 中依次调用 c++ 代码。如果是多处理器,就为指令添加 lock 前缀,单处理器会不需要 lock 前缀提供的内存屏障效果。带有 lock 前缀的指令在执行期间会锁住总线,使得其它处理器暂时无法通过总线访问指定内存。

无同步方案

如果一个方法本来就不涉及共享数据,那它自然就无须任何同步措施去保证正确性,因此会有一些代码天生就是线程安全的。下面介绍两类线程安全代码:

  • 第一类线程安全代码——可重入代码:也叫作纯代码,可以在代码执行的任何时刻中断它,转而去执行另外一段代码,而在控制权返回后,原来的程序不会出现任何错误;
  • 第二类线程安全代码——线程本地存储:如果一段代码中所需要的数据必须与其他代码共享,那就看看这些共享数据的代码是否能够保证在同一线程中执行? 如果能保证,我们就可以把共享数据的可见范围限制在同一个线程内,这样,无需同步也可以保证线程间不出现数据争用问题;

Java 语言中,如果一个变量要被多线程访问,可以使用 volatile 关键字声明它为“易变的”;如果一个变量要被某个线程独享,可以通过 java.lang.ThreadLocal 类来实现线程本地存储的功能。

锁优化

自旋锁与自适应自旋

互斥同步对性能最大的影响是阻塞实现,挂起线程和恢复线程的操作都需要转入内核态中完成,共享数据的锁定状态只会持续很短的一段时间,为了这段时间去挂起和恢复线程很不值得;为了让线程等待,我们只需让线程执行一个忙循环(自旋),这项技术就是所谓的自旋。

自旋等待的时间必须要有一定的限度:如果自旋超过了限定次数仍然没有成功获得锁,就应当使用传统的方式去挂起线程了。自旋次数的默认值是 10。

自适应自旋锁: JDK 1.6 中引入了自适应的自旋锁。自适应意味着自旋的时间不再固定了,而是由前一次在同一个锁上的自旋时间及锁的拥有者的状态来决定:

  • 如果在同一个锁对象上,自旋等待刚刚成功获得过锁,并且持有锁的线程正在运行中,那么虚拟机就会认为这次自旋也很有可能再次成功,进而它将允许自旋等待持续相对更长的时间,比如100个cycle;
  • 如果对于某个锁,自旋很少成功获得过, 那在以后要获取这个锁时将可能省略掉自旋过程,以避免浪费处理器资源;

锁清除

锁清除是指虚拟机即时编译在运行时,对一些代码要求同步,但是被检查到不可能存在数据共享竞争的锁进行清除。

锁清除的主要判断依据:来源于逃逸分析的数据支持;如果判定在一段代码中,堆上的所有数据都不会逃逸出去从而被其他线程访问到,那就可以把它们当作栈上数据对待,认为它们是线程私有的,同步加锁自然就无须进行了。

许多同步措施并不是程序员自己加入的,同步的代码在 Java 程序中的普遍程度早就超过了大部分人的想象。例子:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
public class LockEliminateTest {

// raw code
public String concatString(String s1, String s2, String s3) {
return s1 + s2 + s3;
}

// javac 转化后的字符串连接操作
public String concatString(String s1, String s2, String s3) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
sb.append(s3);
return sb.toString();
}
}

对于 javac 转化后的字符串连接操作代码: 使用了同步,因为 StringBuffer.append() 方法中都有一个同步块,锁就是 sb 对象。虚拟机观察变量 sb,很快就会发现他的动态作用域被限制在 concatString() 方法内部;也就是所 sb 的所有引用都不会逃逸到方法之外;虽然这里有锁,但是可以被安全地消除掉,在即时编译之后,这段代码就会忽略掉所有的同步而直接执行了;

轻量锁

轻量级锁的目的:是在没有多线程竞争的前提下,减少传统的重量级锁使用操作系统互斥量产生的性能消耗

HotSpot 虚拟机的对象头分为两部分信息:
第一部分:用于存储对象自身的运行时数据,如哈希码,GC 分代年龄等;这部分数据的长度在32位和64位的虚拟机中分别为 32bit64bit,官方称它为 Mark Word,它是实现轻量级锁和偏向锁的关键;
第二部分:用于存储指向方法区对象类型数据的指针,如果是数组对象的话,还会有一个额外的部分用于存储数组长度;

HotSpot 虚拟机对象头 Mark Word 如下图所示:

在代码进入同步块的时候:

  • 轻量级锁的加锁过程:

    1. 如果此同步对象没有被锁定(锁标志位为01状态):虚拟机首先将在当前线程的栈帧中建立一个名为锁记录(Lock Record)的空间,用于存储对象目前的 Mark Word 的拷贝;
    2. 然后,虚拟机将使用 CAS 操作尝试将对象的 Mark Word 更新为指向 Lock Record 的指针;
    3. 如果这个更新工作成功了,那么这个线程就拥有了该对象的锁,并且对象 Mark Word 的锁标志位将转变为 00,即表示此对象处于轻量级锁定状态;
    4. 如果这个更新失败了,虚拟机首先会检查对象的 Mark Word 是否指向当前线程的栈帧,如果是说明当前线程已经拥有了这个对象的锁,那就可以直接进入同步块继续执行,否则说明这个锁对象已经被其他线程抢占了。如果有两条以上的线程争用同一个锁,那轻量级锁就不再有效,要膨胀为重量级锁,锁标志的状态值变为 10,Mark Word 中存储的就是指向重量级(互斥量)的指针,后面等待锁的线程也要进入阻塞状态;
  • 轻量级锁的解锁过程:

    1. 如果对象的 Mark Word 仍然指向着线程的锁记录,那就用 CAS 操作把对象当前的 Mark Word 和 线程中复制的 Dispatched Mard Word 替换回来;
    2. 如果替换成功,整个同步过程就 over 了;
    3. 如果替换失败,说明有其他线程尝试过获取该锁,那就要在释放锁的同时,唤醒被挂起的线程;
      图解:

偏向锁

如果说轻量级锁是在无竞争的情况使用 CAS 操作去消除同步使用的互斥量,那偏向锁就是在无竞争的情况下把整个同步都消除掉,连 CAS 操作都不做了;

偏向锁的偏: 它的意思是这个锁会偏向于第一个获得它的线程,如果在接下来的执行过程中,该锁没有被其他的线程获取,则持有偏向锁的线程将永远不需要再进行同步;

偏向锁的原理:若当前虚拟机启用了偏向锁,那么,当锁对象第一次被线程获取的时候,虚拟机将会把对象头中的标志位设为01,即偏向模式;同时使用 CAS 操作把获取到这个锁的线程的 ID 记录在对象的 Mark Word 之中,如果 CAS 操作成功,持有偏向锁的线程以后每次进入这个锁相关的同步块时,虚拟机都可以不再进行任何同步操作;当有另一个线程去尝试获取这个锁时,偏向模式就结束了:根据锁对象目前是否处于被锁定的状态, 撤销偏向后恢复到未锁定(标志位为01)或轻量级锁定(标志位为00)的状态,后续的同步操作就如上面介绍的轻量级锁那样执行;

偏向锁可以提高带有同步但无竞争的程序性能;如果程序中大多数的锁总是被多个不同的线程访问:那偏向模式是多余的;

图解: